OpenAI je u četvrtak predstavio svoje najnovije o1-modeli, koji nude značajan napredak u oblasti logičkog razmišljanja, rešavanja problema i odgovaranja na naučna pitanja. Ovi modeli se smatraju ključnim korakom ka razvoju veštačke opšte inteligencije (AGI) – mašina koje postižu sposobnost ljudskog razmišljanja.

U pratećoj karti sistema, koja opisuje funkcionisanje veštačke inteligencije, OpenAI ipak priznaje da su novi modeli takođe značajno povećali rizik od zloupotrebe tehnologije, posebno u vezi sa proizvodnjom biološkog oružja. Po prvi put, kompanija je svojim modelima dodelila „srednju ocenu rizika“ u vezi sa hemijskim, biološkim, radiološkim i nuklearnim (CBRN) oružjem. To znači da je tehnologija značajno unapredila sposobnosti stručnjaka za razvoj biološkog oružja.

Napredni KI softver koji je sposoban za postupno izvođenje logičkih argumentacija nosi povećan rizik od zloupotrebe prema mišljenju stručnjaka. Yoshua Bengio, jedan od vodećih svetskih istraživača u oblasti KI, istakao je hitnost zakonskih regulativa kako bi se ovi rizici minimizirali. On se osvrnuo na nacrt zakona u Kaliforniji koji bi od kompanija zahtevao da preduzmu mere bezbednosti kako bi se sprečila upotreba KI u razvoju biološkog oružja. "Što više KI napreduje ka AGI, to rizici postaju veći ukoliko ne postoje odgovarajuće mere zaštite," upozorio je Bengio.

Tehnološke kompanije kao što su Google, Meta i Anthropic takođe trenutno rade na razvoju naprednih AI sistema. Ovi AI agenti bi mogli pomoći ljudima u izvršavanju zadataka i takođe nude potencijalno unosne poslovne prilike za kompanije koje se suočavaju sa enormnim troškovima razvoja AI.

Mira Murati, glavna direktorica za tehnologiju u kompaniji OpenAI, izjavila je za Financial Times da kompanija preduzima posebne mere opreza prilikom uvođenja o1 modela zbog njihovih širokih mogućnosti. Ipak, modeli će biti dostupni preko ChatGPT-a za pretplatnike koji plaćaju i putem API-a za programere. Murati je dodala da su modeli prošli opsežne bezbednosne testove i pokazali su se znatno sigurnijim u poređenju sa ranijim verzijama.